LLM应用全流程开发课件

Appearance

Gradio 开发与调试 ​

在进行 Gradio 应用开发过程中，经常需要反复修改代码并查看效果。本文将介绍几种有效的开发调试方法，特别是如何实现代码变更后自动重载应用的功能。

Gradio 的默认行为 ​

当你使用 demo.launch() 启动 Gradio 应用时，默认情况下修改代码后需要手动停止（按 Ctrl+C）并重新运行 Python 脚本。这在开发过程中很不方便，尤其是在调整界面布局和样式时。

使用 Gradio 的自动重载功能 ​

好消息是，Gradio 4.x 版本提供了内置的自动重载功能！使用非常简单：

方法一：使用 gradio 命令行工具（推荐） ​

假设你的 Gradio 应用代码保存在 app.py 文件中，不要使用 python app.py 运行，而是在终端中输入：

bash
gradio app.py

就这么简单！现在当你修改 app.py 文件时，Gradio 会自动监测到变化并重新加载应用。

你会在终端中看到如下提示：

Watching: '/你的项目路径/'

Running on local URL: http://127.0.0.1:7860

其中 Watching... 表示 Gradio 正在监视你的文件变化。

小贴士

默认情况下，Gradio 会查找名为 demo 的 Blocks/Interface 变量。如果你的应用变量使用了其他名称，比如 my_app，你需要使用 --demo-name 参数：

bash
gradio app.py --demo-name=my_app

选择性重载 ​

有些代码你可能不希望在每次修改时都重新运行，比如加载大型模型。Gradio 提供了 gr.NO_RELOAD 条件判断，将不需要重复执行的代码放在这个条件中：

python
import gradio as gr

# 这部分代码只会在初次启动时执行一次
if gr.NO_RELOAD:
    print("加载大型模型...")
    # 在这里加载你的模型
    model = load_my_big_model()

# 界面定义部分会在每次修改代码后重新执行
with gr.Blocks() as demo:
    gr.Markdown("# 我的 Gradio 应用")
    # 你的界面代码...

if __name__ == "__main__":
    demo.launch()

方法二：Jupyter Notebook 魔法命令 ​

如果你使用 Jupyter Notebook 或 Google Colab，Gradio 提供了魔法命令让重载变得更简单：

  1. 首先在 notebook 顶部加载 gradio 扩展：

    python
    %load_ext gradio

  2. 然后在包含 Gradio 代码的单元格顶部使用 %%blocks 魔法命令：

    python
    %%blocks

import gradio as gr

with gr.Blocks() as demo:
    gr.Markdown("# 你好，Gradio！")
    # 更多界面代码...

使用这种方式，你不需要调用 launch() 方法，Gradio 会自动为你启动应用。每次你重新运行该单元格时，应用会快速刷新，而不是完全重启服务器。

其他实用调试技巧 ​

除了文件变更自动重载外，以下调试技巧也很有用：

1. 开启调试模式 ​

python
demo.launch(debug=True)

启用调试模式后，错误信息会更加详细，帮助你快速定位问题。

2. 使用 print 输出调试信息 ​

在处理函数中添加 print 语句可以帮助你了解函数执行过程：

python
def process_image(img):
    print("接收到图像，尺寸:", img.shape)
    # 处理图像...
    result = model(img)
    print("处理结果:", result)
    return result

这些 print 输出会显示在终端窗口中，不会影响 Web 界面。

3. 使用示例数据加速测试 ​

为你的应用添加示例数据，这样你可以通过点击示例快速测试功能：

python
demo = gr.Interface(
    fn=process_text,
    inputs="text",
    outputs="text",
    examples=["你好，世界！", "Gradio 真棒！"]
)

总结 ​

使用正确的开发工具和技巧可以大幅提高 Gradio 应用的开发效率：

  1. 使用 gradio app.py 命令代替 python app.py 获得自动重载功能
  2. 使用 gr.NO_RELOAD 避免重复加载大型模型
  3. 在 Jupyter 环境使用 %%blocks 魔法命令
  4. 记得开启 debug=True 以获取详细错误信息

掌握这些技巧后，你的 Gradio 开发体验会更加顺畅！